Compare commits
24 Commits
Author | SHA1 | Date |
---|---|---|
Avril | eb721ab93a | 3 years ago |
Avril | 0739dc6393 | 3 years ago |
Avril | c70173dd37 | 4 years ago |
Avril | 071012ddb8 | 4 years ago |
Avril | 6bd5065a33 | 4 years ago |
Avril | 706bacd26a | 4 years ago |
Avril | 0bf9a43c54 | 4 years ago |
Avril | 4237dfdc04 | 4 years ago |
Avril | 79ba15ecd2 | 4 years ago |
Avril | 14e3725fa9 | 4 years ago |
Avril | 0b141f9ee3 | 4 years ago |
Avril | 1f34da16cb | 4 years ago |
Avril | 2dcb9d5996 | 4 years ago |
Avril | 948b3c40a4 | 4 years ago |
Avril | 422693db33 | 4 years ago |
Avril | c5492e920a | 4 years ago |
Avril | 96236aa8be | 4 years ago |
Avril | f61a26e959 | 4 years ago |
Avril | 8cb3388873 | 4 years ago |
Avril | 14ead65f3d | 4 years ago |
Avril | fd9792fdcc | 4 years ago |
Avril | ae9efca41b | 4 years ago |
Avril | 9db000e864 | 4 years ago |
Avril | 9ce9cb8c95 | 4 years ago |
@ -1,3 +1,9 @@
|
|||||||
obj/
|
obj/
|
||||||
|
prof/
|
||||||
fcmp-*
|
fcmp-*
|
||||||
test/
|
test/
|
||||||
|
perf.*
|
||||||
|
flamegraph.svg
|
||||||
|
|
||||||
|
Cargo.lock
|
||||||
|
target
|
||||||
|
@ -0,0 +1,25 @@
|
|||||||
|
[package]
|
||||||
|
name = "fcmprs"
|
||||||
|
version = "0.1.0"
|
||||||
|
authors = ["Avril <flanchan@cumallover.me>"]
|
||||||
|
edition = "2018"
|
||||||
|
|
||||||
|
# See more keys and their definitions at https://doc.rust-lang.org/cargo/reference/manifest.html
|
||||||
|
|
||||||
|
[features]
|
||||||
|
default = ["threads"]
|
||||||
|
|
||||||
|
threads = ["rayon"]
|
||||||
|
|
||||||
|
[profile.release]
|
||||||
|
opt-level = 3
|
||||||
|
lto = "fat"
|
||||||
|
codegen-units = 1
|
||||||
|
panic = "abort"
|
||||||
|
|
||||||
|
[dependencies]
|
||||||
|
cfg-if = "1.0.0"
|
||||||
|
memmap = "0.7.0"
|
||||||
|
once_cell = "1.5.2"
|
||||||
|
rayon = {version = "1.5.0", optional = true}
|
||||||
|
smallvec = "1.5.0"
|
@ -0,0 +1,76 @@
|
|||||||
|
|
||||||
|
PROJECT = fcmprs
|
||||||
|
|
||||||
|
CARGO_FEATURES?= threads
|
||||||
|
|
||||||
|
OPT_FLAGS?= -C target-cpu=native
|
||||||
|
RUSTFLAGS?=
|
||||||
|
|
||||||
|
PROF_DIR=/tmp/fcmprs/prof
|
||||||
|
PROF_ITERATIONS?=100
|
||||||
|
PROF_LOCATION?=/tmp/fcmprs-profiters
|
||||||
|
|
||||||
|
PROF_LARGE_BOUND= $$(( 1024 * 1024 * 10 ))
|
||||||
|
PROF_SMALL_BOUND= $$(( 1024 * 10 ))
|
||||||
|
|
||||||
|
.PHONY: release
|
||||||
|
release: target/release/$(PROJECT)
|
||||||
|
|
||||||
|
.PHONY: debug
|
||||||
|
debug: target/debug/$(PROJECT)
|
||||||
|
|
||||||
|
.PHONY: pgo
|
||||||
|
pgo: target/release/$(PROJECT)-pgo
|
||||||
|
# Currently broken.
|
||||||
|
|
||||||
|
|
||||||
|
target/release/$(PROJECT): RUSTFLAGS+= $(OPT_FLAGS)
|
||||||
|
target/release/$(PROJECT):
|
||||||
|
RUSTFLAGS="$(RUSTFLAGS)" cargo build --release --no-default-features $(addprefix --features ,$(CARGO_FEATURES))
|
||||||
|
strip $@
|
||||||
|
|
||||||
|
target/debug/$(PROJECT):
|
||||||
|
RUSTFLAGS="$(RUSTFLAGS)" cargo build --no-default-features $(addprefix --features ,$(CARGO_FEATURES))
|
||||||
|
|
||||||
|
pgo-generate: RUSTFLAGS+= -Cprofile-generate=$(PROF_DIR)
|
||||||
|
pgo-generate: target/release/$(PROJECT)
|
||||||
|
|
||||||
|
pgo-profile: pgo-generate
|
||||||
|
for i in {1..$(PROF_ITERATIONS)}; do \
|
||||||
|
rm -rf $(PROF_LOCATION); \
|
||||||
|
mkdir -p $(PROF_LOCATION)/{large,small}; \
|
||||||
|
printf "Iteration $$i of $(PROF_ITERATIONS)\r"; \
|
||||||
|
../profile/gen $(PROF_LARGE_BOUND) "$(PROF_LOCATION)/large" >> /dev/null; \
|
||||||
|
../profile/gen $(PROF_SMALL_BOUND) "$(PROF_LOCATION)/small" >> /dev/null; \
|
||||||
|
./target/release/fcmprs $(PROF_LOCATION)/large/matching/* & > $(PROF_LOCATION)/stdout; \
|
||||||
|
./target/release/fcmprs $(PROF_LOCATION)/large/unmatching/* & > $(PROF_LOCATION)/stdout; \
|
||||||
|
./target/release/fcmprs $(PROF_LOCATION)/small/matching/* & > $(PROF_LOCATION)/stdout; \
|
||||||
|
./target/release/fcmprs $(PROF_LOCATION)/small/unmatching/* & > $(PROF_LOCATION)/stdout; \
|
||||||
|
\
|
||||||
|
./target/release/fcmprs $(PROF_LOCATION)/small/matching/{1,2} & > $(PROF_LOCATION)/stdout; \
|
||||||
|
./target/release/fcmprs $(PROF_LOCATION)/large/matching/{1,2} & > $(PROF_LOCATION)/stdout; \
|
||||||
|
./target/release/fcmprs $(PROF_LOCATION)/small/unmatching/{1,2} & > $(PROF_LOCATION)/stdout; \
|
||||||
|
./target/release/fcmprs $(PROF_LOCATION)/large/unmatching/{1,2} & > $(PROF_LOCATION)/stdout; \
|
||||||
|
wait; \
|
||||||
|
rm -rf $(PROF_LOCATION)/{large,small}; \
|
||||||
|
done
|
||||||
|
@echo ""
|
||||||
|
rm -rf $(PROF_LOCATION)
|
||||||
|
llvm-profdata merge -o $(PROF_DIR)/merged.profdata $(PROF_DIR)
|
||||||
|
|
||||||
|
pgo-use: RUSTFLAGS+= -Cprofile-use=$(PROF_DIR)/merged.profdata -Cllvm-args=-pgo-warn-missing-function
|
||||||
|
pgo-use: target/release/$(PROJECT)
|
||||||
|
|
||||||
|
pgo-reset:
|
||||||
|
rm -rf $(PROF_DIR)
|
||||||
|
mkdir -p $(PROF_DIR)
|
||||||
|
|
||||||
|
|
||||||
|
target/release/$(PROJECT)-pgo: | pgo-reset pgo-profile
|
||||||
|
#rm -rf target
|
||||||
|
CARGO_INCREMENTAL=0 $(MAKE) -B pgo-use
|
||||||
|
mv -f target/release/$(PROJECT) $@
|
||||||
|
|
||||||
|
clean:
|
||||||
|
rm -rf target
|
||||||
|
rm -rf $(PROF_LOCATION) $(PROF_DIR)
|
@ -0,0 +1,42 @@
|
|||||||
|
use std::{fmt,error};
|
||||||
|
|
||||||
|
#[derive(Debug)]
|
||||||
|
/// There was a non-matching file
|
||||||
|
pub enum UnmatchError
|
||||||
|
{
|
||||||
|
Size,
|
||||||
|
Data,
|
||||||
|
Unknown,
|
||||||
|
}
|
||||||
|
|
||||||
|
impl error::Error for UnmatchError{}
|
||||||
|
impl fmt::Display for UnmatchError
|
||||||
|
{
|
||||||
|
fn fmt(&self, f: &mut fmt::Formatter<'_>) -> fmt::Result
|
||||||
|
{
|
||||||
|
match self {
|
||||||
|
Self::Size => write!(f, "size differs"),
|
||||||
|
Self::Data => write!(f, "data differs"),
|
||||||
|
_ => write!(f, "unknown error"),
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
pub trait ResultPrintExt<T>
|
||||||
|
{
|
||||||
|
fn discard_msg(self, msg: impl AsRef<str>) -> Option<T>;
|
||||||
|
}
|
||||||
|
|
||||||
|
impl<T, E> ResultPrintExt<T> for Result<T,E>
|
||||||
|
where E: std::fmt::Display
|
||||||
|
{
|
||||||
|
fn discard_msg(self, msg: impl AsRef<str>) -> Option<T> {
|
||||||
|
match self {
|
||||||
|
Ok(v) => Some(v),
|
||||||
|
Err(e) => {
|
||||||
|
eprintln!("{}: {}", msg.as_ref(), e);
|
||||||
|
None
|
||||||
|
},
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
@ -0,0 +1,105 @@
|
|||||||
|
|
||||||
|
#![allow(dead_code)]
|
||||||
|
|
||||||
|
#[cfg(feature="threads")] use rayon::prelude::*;
|
||||||
|
#[allow(unused_imports)]
|
||||||
|
use std::{
|
||||||
|
path::Path,
|
||||||
|
io, fs::{self, OpenOptions,},
|
||||||
|
convert::TryInto,
|
||||||
|
};
|
||||||
|
use smallvec::SmallVec;
|
||||||
|
use cfg_if::cfg_if;
|
||||||
|
|
||||||
|
fn usage() -> !
|
||||||
|
{
|
||||||
|
eprintln!("fcmprs: Compare files for identity");
|
||||||
|
eprintln!("Usage: {} <files...>", std::env::args().next().unwrap());
|
||||||
|
|
||||||
|
std::process::exit(-1)
|
||||||
|
}
|
||||||
|
|
||||||
|
mod error;
|
||||||
|
use error::ResultPrintExt as _;
|
||||||
|
|
||||||
|
mod map;
|
||||||
|
use map::MappedFile as _;
|
||||||
|
|
||||||
|
use error::UnmatchError;
|
||||||
|
|
||||||
|
fn main() {
|
||||||
|
let (map1, rest) = {
|
||||||
|
let mut args = std::env::args().skip(1);
|
||||||
|
if let Some(one) = args.next() {
|
||||||
|
(one, args)
|
||||||
|
} else {
|
||||||
|
usage();
|
||||||
|
}
|
||||||
|
};
|
||||||
|
|
||||||
|
std::process::exit({
|
||||||
|
if let Some(map1) = map::map(&map1).discard_msg(format!("Failed to map file {}", map1)) {
|
||||||
|
let slice = map1.as_slice();
|
||||||
|
#[cfg(feature="threads")] let map1_sz: u64 = slice.len().try_into().expect("File size could not fit into u64. This should never happen."); // For now, non-threaded mode doesn't use this.
|
||||||
|
let mut ok = true;
|
||||||
|
let chk: SmallVec<[_; 32]> = rest.filter_map(|filename| {
|
||||||
|
let path = Path::new(&filename);
|
||||||
|
if path.exists() && path.is_file() {
|
||||||
|
map::map(path).discard_msg(format!("Failed to map file {}", filename))
|
||||||
|
} else {
|
||||||
|
eprintln!("File {} does not exist or is not a normal file", filename);
|
||||||
|
ok=false;
|
||||||
|
None
|
||||||
|
}
|
||||||
|
}).collect();
|
||||||
|
|
||||||
|
if !ok {
|
||||||
|
-1
|
||||||
|
} else {
|
||||||
|
|
||||||
|
cfg_if! {
|
||||||
|
if #[cfg(feature="threads")] {
|
||||||
|
match chk.into_par_iter()
|
||||||
|
.map(|map| {
|
||||||
|
if let Ok(stat) = map.as_file().metadata() {
|
||||||
|
if stat.len() != map1_sz {
|
||||||
|
return Err(UnmatchError::Size);
|
||||||
|
}
|
||||||
|
if !stat.is_file() {
|
||||||
|
return Err(UnmatchError::Unknown);
|
||||||
|
}
|
||||||
|
}
|
||||||
|
if slice == map.as_slice() {
|
||||||
|
Ok(())
|
||||||
|
} else {
|
||||||
|
Err(UnmatchError::Data)
|
||||||
|
}
|
||||||
|
})
|
||||||
|
.try_reduce_with(|_, _| Ok(()))
|
||||||
|
{
|
||||||
|
Some(Ok(_)) => 0,
|
||||||
|
Some(Err(UnmatchError::Data)) => 1,
|
||||||
|
Some(Err(UnmatchError::Size)) => 2,
|
||||||
|
None => usage(),
|
||||||
|
_ => -1,
|
||||||
|
}
|
||||||
|
} else {
|
||||||
|
match chk.into_iter()
|
||||||
|
.map(|map| {
|
||||||
|
slice == map.as_slice()
|
||||||
|
})
|
||||||
|
.try_fold((false, true), |(_, a), b| if a && b {Ok((true, true))} else {Err(UnmatchError::Data)})
|
||||||
|
{
|
||||||
|
Ok((true, _)) => 0,
|
||||||
|
Ok((false, _)) => usage(),
|
||||||
|
Err(_) => 1,
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
} else {
|
||||||
|
-1
|
||||||
|
}
|
||||||
|
})
|
||||||
|
}
|
@ -0,0 +1,135 @@
|
|||||||
|
use super::*;
|
||||||
|
|
||||||
|
use once_cell::sync::OnceCell;
|
||||||
|
|
||||||
|
pub trait MappedFile
|
||||||
|
{
|
||||||
|
#[inline] fn as_slice(&self) -> &[u8]
|
||||||
|
{
|
||||||
|
&self.as_map()[..]
|
||||||
|
}
|
||||||
|
fn as_map(&self) -> &memmap::Mmap;
|
||||||
|
fn as_file(&self) -> &fs::File;
|
||||||
|
}
|
||||||
|
|
||||||
|
pub trait MappedFileNew: MappedFile + Sized
|
||||||
|
{
|
||||||
|
fn try_map(file: fs::File) -> io::Result<Self>;
|
||||||
|
#[inline] fn map(file: fs::File) -> Self
|
||||||
|
{
|
||||||
|
Self::try_map(file).unwrap()
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
/// Represents an open and memory mapped file
|
||||||
|
#[derive(Debug)]
|
||||||
|
pub struct MemMap
|
||||||
|
{
|
||||||
|
map: memmap::Mmap,
|
||||||
|
file: fs::File,
|
||||||
|
}
|
||||||
|
|
||||||
|
impl MappedFile for MemMap
|
||||||
|
{
|
||||||
|
/// Get the memory mapped portion as a slice
|
||||||
|
fn as_slice(&self) -> &[u8] {
|
||||||
|
&self.map[..]
|
||||||
|
}
|
||||||
|
fn as_map(&self) -> &memmap::Mmap {
|
||||||
|
&self.map
|
||||||
|
}
|
||||||
|
#[inline] fn as_file(&self) -> &fs::File {
|
||||||
|
&self.file
|
||||||
|
}
|
||||||
|
}
|
||||||
|
impl MappedFileNew for MemMap
|
||||||
|
{
|
||||||
|
#[inline] fn try_map(file: fs::File) -> io::Result<Self>
|
||||||
|
{
|
||||||
|
Ok(MemMap {
|
||||||
|
map: unsafe { memmap::Mmap::map(&file)? },
|
||||||
|
file,
|
||||||
|
})
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
/// Attempt to map this file
|
||||||
|
pub fn map_with<M: MappedFileNew>(file: &Path) -> io::Result<M>
|
||||||
|
{
|
||||||
|
let file = OpenOptions::new()
|
||||||
|
.read(true)
|
||||||
|
.open(file)?;
|
||||||
|
|
||||||
|
M::try_map(file)
|
||||||
|
}
|
||||||
|
|
||||||
|
/// Type container for memory map
|
||||||
|
pub type DefaultMapType = LazyMap;
|
||||||
|
|
||||||
|
/// Attempt to map this file to the `DefaultMapType`
|
||||||
|
pub fn map(file: impl AsRef<Path>) -> io::Result<DefaultMapType>
|
||||||
|
{
|
||||||
|
map_with(file.as_ref())
|
||||||
|
}
|
||||||
|
|
||||||
|
/// An open and maybe mapped file
|
||||||
|
#[derive(Debug)]
|
||||||
|
pub struct LazyMap
|
||||||
|
{
|
||||||
|
map: OnceCell<memmap::Mmap>,
|
||||||
|
file: fs::File,
|
||||||
|
}
|
||||||
|
|
||||||
|
impl LazyMap
|
||||||
|
{
|
||||||
|
#[inline(always)] fn get_map(&self) -> &memmap::Mmap
|
||||||
|
{
|
||||||
|
self.map.get_or_init(|| unsafe {memmap::Mmap::map(&self.file).expect("Lazy map failed")})
|
||||||
|
}
|
||||||
|
|
||||||
|
#[inline(always)] fn try_get_map(&self) -> io::Result<&memmap::Mmap>
|
||||||
|
{
|
||||||
|
self.map.get_or_try_init(|| unsafe {memmap::Mmap::map(&self.file)})
|
||||||
|
}
|
||||||
|
|
||||||
|
/// Is the memory mapped already?
|
||||||
|
#[inline] pub fn is_mapped(&self) -> bool
|
||||||
|
{
|
||||||
|
self.map.get().is_some()
|
||||||
|
}
|
||||||
|
|
||||||
|
/// Get the mapped portion if it is mapped, attempting a map if not
|
||||||
|
#[inline] pub fn try_as_slice(&self) -> io::Result<&[u8]>
|
||||||
|
{
|
||||||
|
Ok(&self.try_get_map()?[..])
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
impl MappedFile for LazyMap
|
||||||
|
{
|
||||||
|
/// Get the memory mapped portion as a slice
|
||||||
|
///
|
||||||
|
/// Returns blank slice if mapping fails
|
||||||
|
#[inline] fn as_slice(&self) -> &[u8]
|
||||||
|
{
|
||||||
|
self.try_get_map()
|
||||||
|
.map(|x| &x[..])
|
||||||
|
.unwrap_or(&[])
|
||||||
|
}
|
||||||
|
fn as_map(&self) -> &memmap::Mmap {
|
||||||
|
self.map.get().unwrap()
|
||||||
|
}
|
||||||
|
#[inline] fn as_file(&self) -> &fs::File {
|
||||||
|
&self.file
|
||||||
|
}
|
||||||
|
}
|
||||||
|
impl MappedFileNew for LazyMap
|
||||||
|
{
|
||||||
|
#[inline] fn try_map(file: fs::File) -> io::Result<Self>
|
||||||
|
{
|
||||||
|
Ok(LazyMap {
|
||||||
|
map: OnceCell::new(),
|
||||||
|
file,
|
||||||
|
})
|
||||||
|
}
|
||||||
|
}
|
@ -0,0 +1,27 @@
|
|||||||
|
#ifndef _FCMP_H
|
||||||
|
#define _FCMP_H
|
||||||
|
|
||||||
|
#ifdef DEBUG
|
||||||
|
#define _FORCE_INLINE static inline __attribute__((gnu_inline))
|
||||||
|
#else
|
||||||
|
#define _FORCE_INLINE extern inline __attribute__((gnu_inline))
|
||||||
|
#endif
|
||||||
|
|
||||||
|
#define _ALIAS __attribute__((may_alias))
|
||||||
|
|
||||||
|
#ifdef DEBUG
|
||||||
|
#define __name(d) #d
|
||||||
|
#define dprintf(fmt, ...) printf("[dbg @" __FILE__ "->%s:%d] " fmt "\n", __func__, __LINE__, ## __VA_ARGS__)
|
||||||
|
#else
|
||||||
|
#define dprintf(fmt, ...)
|
||||||
|
#endif
|
||||||
|
|
||||||
|
/// Enabled threaded scheduling
|
||||||
|
// Set to 1 to FORCE threaded scheduling, 0 to use when opportune.
|
||||||
|
//
|
||||||
|
//#define _RUN_THREADED 0
|
||||||
|
|
||||||
|
|
||||||
|
extern const char* _prog_name;
|
||||||
|
|
||||||
|
#endif /* _FCMP_H */
|
@ -0,0 +1,22 @@
|
|||||||
|
#ifndef _SCHED_H
|
||||||
|
#define _SCHED_H
|
||||||
|
|
||||||
|
#include <vector.h>
|
||||||
|
#include <fcmp.h>
|
||||||
|
|
||||||
|
typedef struct tasklist {
|
||||||
|
size_t argc;
|
||||||
|
struct taskarg* argv;
|
||||||
|
pthread_t* tasks;
|
||||||
|
|
||||||
|
} tasklist_t;
|
||||||
|
|
||||||
|
typedef void (*sched_cb)(vec_t* restrict tasklist);
|
||||||
|
|
||||||
|
#ifdef _RUN_THREADED
|
||||||
|
bool sched_spawn(vec_t full, sched_cb callback, struct tasklist *restrict t_list);
|
||||||
|
void sched_wait(struct tasklist* restrict t_list);
|
||||||
|
bool sched_should(size_t ntasks);
|
||||||
|
#endif
|
||||||
|
|
||||||
|
#endif /* _SHCED_H */
|
@ -0,0 +1,28 @@
|
|||||||
|
#ifndef _VECTOR_H
|
||||||
|
#define _VECTOR_H
|
||||||
|
|
||||||
|
#include <stdlib.h>
|
||||||
|
#include <stdbool.h>
|
||||||
|
|
||||||
|
#include "fcmp.h"
|
||||||
|
|
||||||
|
typedef struct {
|
||||||
|
size_t len, cap;
|
||||||
|
|
||||||
|
size_t element, scap;
|
||||||
|
|
||||||
|
void* ptr;
|
||||||
|
} vec_t;
|
||||||
|
|
||||||
|
#define VEC_DEFAULT_CAP 16
|
||||||
|
|
||||||
|
vec_t vec_new_with_cap(size_t elem, size_t cap);
|
||||||
|
void vec_push(vec_t* restrict self, const void* restrict item);
|
||||||
|
bool vec_pop(vec_t* restrict self, void* restrict item);
|
||||||
|
void* vec_index(const vec_t* restrict self, size_t i);
|
||||||
|
vec_t vec_clone(const vec_t* restrict self);
|
||||||
|
|
||||||
|
_FORCE_INLINE vec_t vec_new(size_t elem) { return vec_new_with_cap(elem, VEC_DEFAULT_CAP); }
|
||||||
|
_FORCE_INLINE void vec_free(vec_t v) { free(v.ptr); }
|
||||||
|
|
||||||
|
#endif /* _VECTOR_H */
|
@ -0,0 +1,33 @@
|
|||||||
|
#!/bin/bash
|
||||||
|
|
||||||
|
# Generate 100 matching
|
||||||
|
bound=$1
|
||||||
|
|
||||||
|
ITERATIONS=${ITERATIONS:-100}
|
||||||
|
BREAK_AT=50
|
||||||
|
|
||||||
|
cd $2 || exit 1
|
||||||
|
|
||||||
|
echo ">>> Generating ${ITERATIONS} matching files at $2/matching"
|
||||||
|
mkdir matching
|
||||||
|
dd if=/dev/urandom of=./matching/0 bs=$bound count=1 >> /dev/null 2>&1 || exit 1
|
||||||
|
pushd matching >>/dev/null
|
||||||
|
for i in $(seq 1 ${ITERATIONS}); do
|
||||||
|
cp -f 0 $i || exit 1
|
||||||
|
done
|
||||||
|
popd >>/dev/null
|
||||||
|
|
||||||
|
echo ">>> Generatig ${ITERATIONS} with unmatching files at $2/unmatching"
|
||||||
|
mkdir unmatching
|
||||||
|
dd if=/dev/urandom of=./unmatching/0 bs=$bound count=1 >> /dev/null 2>&1 || exit 1
|
||||||
|
pushd unmatching >> /dev/null
|
||||||
|
for i in $(seq 1 ${ITERATIONS}); do
|
||||||
|
if [[ $i == ${BREAK_AT} ]]; then
|
||||||
|
echo " $i < unmatching"
|
||||||
|
dd if=/dev/urandom of=$i bs=$bound count=1 >>/dev/null 2>&1 || exit
|
||||||
|
else
|
||||||
|
cp -f 0 $i || exit 1
|
||||||
|
fi
|
||||||
|
done
|
||||||
|
popd >> /dev/null
|
||||||
|
echo ">>> Generated in $2"
|
@ -0,0 +1,86 @@
|
|||||||
|
// Scheduler
|
||||||
|
|
||||||
|
#include <unistd.h>
|
||||||
|
#include <stdint.h>
|
||||||
|
#include <stdio.h>
|
||||||
|
|
||||||
|
#include <vector.h>
|
||||||
|
#include <pthread.h>
|
||||||
|
|
||||||
|
#ifdef _RUN_THREADED
|
||||||
|
inline static size_t num_cpus() {
|
||||||
|
return sysconf( _SC_NPROCESSORS_ONLN );
|
||||||
|
}
|
||||||
|
|
||||||
|
struct taskarg {
|
||||||
|
vec_t li;
|
||||||
|
sched_cb cb;
|
||||||
|
};
|
||||||
|
|
||||||
|
static void* _spawn(void* _arg)
|
||||||
|
{
|
||||||
|
struct taskarg* restrict arg = _arg;
|
||||||
|
if(arg->li.len>0)
|
||||||
|
arg->cb(&arg->li);
|
||||||
|
vec_free(arg->li);
|
||||||
|
return NULL;
|
||||||
|
}
|
||||||
|
|
||||||
|
bool sched_should(size_t ntasks)
|
||||||
|
{
|
||||||
|
static size_t num = 0;
|
||||||
|
// XXX: This is not thread-safe, but this function is only ever called by the main thread, so...
|
||||||
|
if(!num) num = num_cpus();
|
||||||
|
return (num > 1 && ntasks > 1);
|
||||||
|
}
|
||||||
|
|
||||||
|
bool sched_spawn(vec_t full, sched_cb callback, struct tasklist *restrict t_list)
|
||||||
|
{
|
||||||
|
register size_t spn = num_cpus() + 1;
|
||||||
|
|
||||||
|
if (spn > full.len) spn = full.len;
|
||||||
|
|
||||||
|
dprintf("Spawning %lu worker threads", spn);
|
||||||
|
// Split tasks
|
||||||
|
*t_list = (struct tasklist){
|
||||||
|
.argc = spn,
|
||||||
|
.argv = calloc(sizeof(struct taskarg), spn),
|
||||||
|
.tasks = calloc(sizeof(pthread_t), spn),
|
||||||
|
};
|
||||||
|
struct taskarg* tasklist = t_list->argv;
|
||||||
|
|
||||||
|
for(register int i=0;i<spn;i++) tasklist[i] = (struct taskarg){.li = vec_new_with_cap(full.element, full.len), .cb = callback };
|
||||||
|
|
||||||
|
for (register int i=0;i<full.len;i++)
|
||||||
|
{
|
||||||
|
vec_push(&tasklist[i%spn].li, vec_index(&full, i));
|
||||||
|
}
|
||||||
|
|
||||||
|
for(register int i=0;i<spn;i++)
|
||||||
|
{
|
||||||
|
if(pthread_create(&t_list->tasks[i], NULL, &_spawn, &tasklist[i]))
|
||||||
|
{
|
||||||
|
perror("Failed to spawn thread");
|
||||||
|
return false;
|
||||||
|
}
|
||||||
|
dprintf("Worker thead %d of %lu OK", i, spn);
|
||||||
|
}
|
||||||
|
|
||||||
|
return true;
|
||||||
|
}
|
||||||
|
|
||||||
|
void sched_wait(struct tasklist* restrict t_list)
|
||||||
|
{
|
||||||
|
dprintf("Waiting on %lu worker threads", t_list->argc);
|
||||||
|
for (size_t i=0;i<t_list->argc;i++) {
|
||||||
|
if(pthread_join(t_list->tasks[i], NULL)) {
|
||||||
|
perror("Failed to join thread");
|
||||||
|
continue;
|
||||||
|
}
|
||||||
|
dprintf("Joined thread %lu of %lu okay", i, t_list->argc);
|
||||||
|
}
|
||||||
|
free(t_list->tasks);
|
||||||
|
free(t_list->argv);
|
||||||
|
dprintf("Freed args and thread handles okay");
|
||||||
|
}
|
||||||
|
#endif
|
@ -0,0 +1,61 @@
|
|||||||
|
#include <stdlib.h>
|
||||||
|
#include <string.h>
|
||||||
|
#include <stdint.h>
|
||||||
|
|
||||||
|
#include <vector.h>
|
||||||
|
|
||||||
|
_FORCE_INLINE void* die_if_null(void* ptr)
|
||||||
|
{
|
||||||
|
if (!ptr) abort();
|
||||||
|
return ptr;
|
||||||
|
}
|
||||||
|
|
||||||
|
vec_t vec_new_with_cap(size_t elem, size_t cap) {
|
||||||
|
return (vec_t){
|
||||||
|
.len =0,
|
||||||
|
.cap = cap,
|
||||||
|
.scap = cap,
|
||||||
|
.element = elem,
|
||||||
|
.ptr = die_if_null(calloc(elem, cap)),
|
||||||
|
};
|
||||||
|
}
|
||||||
|
|
||||||
|
static inline void vec_extend_one(vec_t* restrict self)
|
||||||
|
{
|
||||||
|
self->ptr = die_if_null(reallocarray(self->ptr, self->element, (self->cap+=self->scap)));
|
||||||
|
}
|
||||||
|
|
||||||
|
void* vec_index(const vec_t* restrict self, size_t i)
|
||||||
|
{
|
||||||
|
if (i >= self->len) return NULL;
|
||||||
|
return (void*)(((uintptr_t)self->ptr)+ (self->element*i));
|
||||||
|
}
|
||||||
|
|
||||||
|
void vec_push(vec_t* restrict self, const void* restrict item)
|
||||||
|
{
|
||||||
|
if (self->len >= self->cap) {
|
||||||
|
vec_extend_one(self);
|
||||||
|
}
|
||||||
|
memcpy(die_if_null(vec_index(self, self->len++)), item, self->element);
|
||||||
|
}
|
||||||
|
|
||||||
|
bool vec_pop(vec_t* restrict self, void* restrict item)
|
||||||
|
{
|
||||||
|
if (self->len>0) {
|
||||||
|
memcpy(item, die_if_null(vec_index(self, self->len--)), self->element);
|
||||||
|
return true;
|
||||||
|
} else return false;
|
||||||
|
}
|
||||||
|
|
||||||
|
vec_t vec_clone(const vec_t* restrict self)
|
||||||
|
{
|
||||||
|
register vec_t new = {
|
||||||
|
.len = self->len,
|
||||||
|
.cap = self->cap,
|
||||||
|
.element = self->element,
|
||||||
|
.scap = self->scap,
|
||||||
|
.ptr = die_if_null(calloc(self->element, self->cap)),
|
||||||
|
};
|
||||||
|
memcpy(self->ptr, new.ptr, new.len * new.element);
|
||||||
|
return new;
|
||||||
|
}
|
Loading…
Reference in new issue